Ông trở thành hoàng đế mới khi mới 10 tuổi, do vậy vợ của Khang Đế là Trử Thái hậu đóng vai trò nhiếp chính, song trên thực tế, Vương Thản Chi (王坦之) và Tạ An (謝安) mới là những người đưa ra các quyết định, vì Hoàn Ôn đã từ chối lời đề nghị làm nhiếp chính, có lẽ do sợ đây là một cái bẫy. Tuy nhiên, vẫn có lo ngại rằng Hoàn Ôn sẽ chiếm lấy ngai vàng, và vào năm 373, khi Hoàn Ôn đến kinh thành Kiến Khang, đã xuất hiện tin đồn rằng Hoàn Ôn sẽ giết chết Vương Thản Chi và Tạ An rồi chiếm ngôi vua. Tuy nhiên, Hoàn Ôn đã do dự và không làm như vậy, ông ta qua đời một năm sau đó, lúc này, những nỗi sợ hãi trước việc Hoàn Ôn tiếm quyền đã tiêu tan khi em trai và người kế nghiệp Hoàn Ôn là Hoàn Xung cam kết trung thành với triều đình.

Một vấn đề lớn đối với triều đình Đông Tấn trong giai đoạn đầu cai trị của Hiếu Vũ Đế là sức ép mạnh mẽ từ kình địch ở phía bắc là Tiền Tần. Năm 373, Tiền Tần tấn công và chiếm Lương Châu (梁州, nay là phía nam Sơn Tây) và Ích Châu (益州, nay là Tứ Xuyên và Trùng Khánh). Tuy nhiên, về mặt đối nội thì có vẻ như Đông Tấn được Tạ An và Hoàn Xung quản lý khá tốt.

Năm 375, Hiếu Vũ Đến kết hôn với Vương Pháp Huệ, con gái của đại thần Vương Uẩn (王蘊), bà trở thành Hoàng hậu. Lúc đó ông mới 13 tuổi còn hoàng hậu mới 16 tuổi. Ông cũng bắt đầu học điển tịch và làm thơ. Năm 376, Trử Thái hậu chính thức rời bỏ vị trí nhiếp chính và trao lại quyền hành cho Hiếu Vũ Đế, tuy vậy, quyền quyết định chủ yếu vẫn nắm trong tay Tạ An.

Năm 376, chư hầu của Đông Tấn là Tiền Lương bị Tiền Tần tấn công, và quân Tấn dưới quyền chỉ huy của Hoàn Xung, đã cố gắng cứu viện cho Tiền Lương bắt cách tấn công Tiền Tần, song Tiền Lương đã thất bại quá nhanh chóng, Hoàn Xung phải cho rút quân. Lo sợ về một cuộc tấn công của Tiền Tần, Tấn cho di tản phần lớn cư dân ở phía bắc Hoài Hà về phía nam.

Năm 378, Tiền Tần thực hiện các cuộc tấn công nhằm vào các thành lớn của Tấn là Tương Dương, Ngụy Hưng (魏興, nay thuộc An Khang, Thiểm Tây), và Bành Thành (彭城). Trong khi tướng Tạ Huyền có thể ngay lập tức lấy lại Bành Thành thì Tương Dương và Ngụy Hưng đã bị mất vào tay quan Tiền Tần vào năm 379.

Năm 380, Vương Hoàng hậu qua đời. Hiếu Vũ Đế sau đó không lập hoàng hậu nào khác.

Năm 381, Hiếu Vũ Đế bắt đầu theo học kinh Phật, ông cho lập các học đường Phật giáo bên trong cung điện, mời các sư thầy đến sống tại đó.

Năm 383, Hoàn Xung tiến hành một cuộc phản công chống lại Tiền Tần, hy vọng tái chiếm Tương Dương và khu vực tây nam. Tuy nhiên, sau một số thất bại ban đầu, Hoàn Xung đã từ bỏ chiến dịch.